PolyU COMP5511
Conceptos de Inteligencia Artificial
Modelado de Secuencias y el Transformer
Objetivos de Aprendizaje
- Comparar Arquitecturas: Diferenciar entre RNNs, LSTMs y la arquitectura del Transformer.
- Mecanismo de Atención Auto-Dirigida: Explicar el artículo 'La Atención Es Todo Lo Que Necesitas' y los mecanismos de atención auto-dirigida.
- Codificadores y Decodificadores: Comprender el papel de los codificadores y decodificadores en modelos como BERT y GPT.